Pour rappel, les premiers systèmes experts des années 70 étaient des systèmes basés sur des règles (si telle situation clinique, alors tel diagnostic ou telle action à faire).

Ces règles étaient extraites du savoir des médecins et de la science médicale au sens large. Elles étaient forcément rationnelles, même si ces systèmes experts, en se sophistiquant, sont devenus moins "traçables" dans tout leur raisonnement.

Leurs concepteurs ont notamment introduit des coefficients de vraisemblance des pathologies, et de calcul de probabilité dans les cascades de raisonnement pour "singer" l’intelligence des raccourcis – on parle d’heuristiques - propres aux experts qui n’évaluent jamais toutes les possibilités d’un diagnostic différentiel dans la vie réelle (trop long, et même peu performant). L’ambition était de reproduire cette "intuition" des experts, mais ils ont été vite bridés par la complexité technique de la tâche.

Ces systèmes experts ont eu leurs heures de gloire (plutôt universitaires) sans jamais percer à grande échelle. Ils sont restés souvent des objets de recherche, sur des situations elles-mêmes assez ciblées.

Tout a changé quand l’IA a pu basculer sur une autre technologie, celle des réseaux de neurones. Cette technologie repose sur un apprentissage par lecture de milliers-milliards de cas médicaux, qui configure progressivement un réseau de neurones à deux ou trois couches.

La plasticité propre de ces réseaux permet de les configurer pour reproduire au fil du temps, en renforçant les chemins des résultats considérés comme des succès et, inversement, en évitant les chemins pointés comme des échecs médicaux par les faits (évolution clinique défavorable, incidents, etc.).

L’IA générative, qui renvoie au terme général de Grand Modèles de Langage GML - en anglais Large Language Model LLM - est un modèle de langage. Cette IA possédant un grand nombre de paramètres (généralement plus d'un milliard) constitue le socle technique des moteurs de recherche génératifs, qui synthétisent directement une réponse en langage naturel à partir d’un nombre considérable de sources écrites.

Ces réseaux de neurones sont longtemps restés sans résultat probant faute de puissance d’apprentissage suffisant. Puis un jour, pas très ancien d’ailleurs (2017), on a enfin dépassé cette barrière en augmentant quasiment sans limite l’accès du réseau de neurones à tout Internet, au niveau mondial, et à des milliards de cas exemples ; l’IA générative a alors ouvert son champ infini de possibles avec les applications comme Chat GPT, et bien d’autres. 

De nombreuses études ont désormais démontré que ces grands modèles de langage (LLM) présentent des similitudes remarquables avec la cognition médicale, affichant des performances comparables (Takita et al - 2025), voire supérieures (Harada et al - 2025), à celles des humains dans les tâches cognitives médicales, tout en reflétant les biais cognitifs humains.

Les modèles de raisonnement sont depuis devenus omniprésents dans des produits commerciaux tels que Chat GPT (GPT-5, OpenAI) et Gemini (Gemini 3, Google).

Pour autant, Wang et Redelmeier (2025) montrent que ces modèles puissants, à l'instar des modèles de base qui les ont précédés, continuent de présenter des biais cognitifs humains lorsqu'ils sont testés sur des vignettes cliniques.

Ce constat est intéressant mais pas surprenant puisque les modèles héritent à la fois des hautes performances et des biais cognitifs des cliniciens. Les modèles de raisonnement logique (LLM), y compris les modèles de traitement de l'information, sont entraînés sur un vaste corpus de textes humains et leurs chaînes de raisonnement sont façonnées et renforcées par des exemples humains.

Toutefois, même si ces biais peuvent sembler similaires dans les tests de performance basés sur des textes, leurs causes sont clairement différentes ; les biais cognitifs humains sont souvent influencés par les émotions, comme dans le cas des biais de cadrage (être informé du risque de décès ou de survie lors d'une intervention chirurgicale) ; les biais des LLM reflètent simplement une association statistique.

Plus fondamentalement, on peut craindre qu'une focalisation sur les erreurs constatées sur ces systèmes et assimilées à des biais soit tout aussi improductive que de vouloir interdire aux experts humains d’avoir des intuitions (qui sont leur principal atout d’expertise).

Au lieu de considérer les biais des LLM comme un défaut à corriger, il faudrait plutôt repenser les stratégies d'évaluation. Les LLM sont une technologie cognitive qui exige un nouveau modèle d'évaluation, un modèle qui ne se contente pas de montrer les biais du modèle par rapport à une référence publiée, mais qui démontre comment les humains et l'intelligence artificielle travaillent ensemble pour améliorer la prise de décision.

Les heuristiques sont reconnues comme une caractéristique essentielle du raisonnement clinique depuis les années 1970. Bien que ces heuristiques aient été envisagées comme une source possible d'erreurs diagnostiques, cette hypothèse repose souvent sur des opinions plutôt que sur des données probantes. Des études expérimentales suggèrent de plus en plus que ce qui apparaît souvent comme des biais cognitifs correspond en réalité à des lacunes dans les connaissances.

Cependant, les tentatives visant à minimiser les biais cognitifs en sensibilisant les apprenants à leur existence se sont avérées largement inefficaces. Les biais cognitifs sont une étiquette, apposée a posteriori, qui ne peut être identifiée que lorsque le diagnostic était erroné.

Loin d'être une béquille, les heuristiques constituent une force du raisonnement humain et une marque d'expertise.

Les nouvelles technologies sont souvent déployées et évaluées à l'aide d'anciens modèles mentaux, comme les dossiers médicaux électroniques qui s'inspirent des anciens dossiers papier. Cependant, notre paradigme actuel d'évaluation des modèles de langage est trop ancré à la fois dans d'anciens outils d'aide à la décision tels que les systèmes experts ou la prédiction bayésienne, et dans la formation médicale.

Par exemple, certaines évaluations de modèles de langage se concentrent sur le calcul de la sensibilité, de la spécificité, de la précision et du rappel pour des tâches spécifiques. Ces mesures traitent le modèle comme s'il s'agissait d'un classificateur déterministe fixe, conçu, contraint et calibré pour des décisions individuelles, plutôt que d'un modèle stochastique et généraliste dont les performances varient considérablement selon les contextes.

De même, les tests de référence empruntés à la formation médicale traitent un modèle d'IA comme s'il s'agissait d'un humain prenant en charge des patients de manière autonome. Or, les modèles de langage sont des algorithmes informatiques et ne peuvent pas fonctionner de manière autonome, même s'ils sont de plus en plus capables d'effectuer certaines tâches traditionnelles des médecins, comme l'anamnèse. 

Ces deux paradigmes sont insuffisants pour appréhender une technologie cognitive telle qu'un modèle de langage et risquent de nous induire en erreur.

Wang et Redelmeier mettent en lumière des travaux suggérant que les médecins pourraient considérer les systèmes d'aide à la décision informatisés comme infaillibles. Mais pourquoi s'attendre à ce qu'un système d'aide à la décision (SAD) soit infaillible ?

Lorsque nous sollicitons un deuxième avis auprès de nos collègues, nous sommes pleinement conscients de la possibilité d'erreur. Or, les études expérimentales indiquent que les deuxièmes avis, pour des êtres humains faillibles, et l'intelligence collective des groupes peuvent améliorer considérablement les performances.

Même en se projetant dans un avenir proche, où des modèles de gestion de l'apprentissage (LLM) puissants et réglementés pourraient interagir directement avec les patients, ces modèles devraient toujours passer le relais à des cliniciens experts et interagir avec d'autres composantes du système de santé - un système où l'humain reste au centre et qui demeure un processus collaboratif. Il n'existe aucune preuve convaincante que les LLM soient capables d'une gestion médicale véritablement indépendante.

Rodman et A. Zwann 2026, proposent un nouveau paradigme pour appréhender les technologies cognitives telles que les modèles de langage (LLM) : la dyade humain-IA. L’unité d’analyse fondamentale ne doit pas être le modèle, mais l’interaction entre l’humain et le modèle.

Lorsqu’un système LLM présente un biais cognitif, celui-ci peut en réalité le contrebalancer en stimulant la réflexion critique. Différents biais peuvent être complémentaires comme si on confrontait les intuitions de plusieurs experts.

Ces modes de collaboration restent théoriques, et il est probable que les méthodes les plus productives de collaboration homme-IA en médecine restent à découvrir.

L'essentiel est qu'il ne faut pas chercher à optimiser uniquement les résultats de l'IA, mais plutôt la relation de collaboration qui améliore les performances diagnostiques.

En conclusion, il n'est pas surprenant que les modèles de langage humain présentent des biais, et il n'est pas évident qu'il s'agisse d'un inconvénient à corriger. Plus fondamentalement, nous devons évoluer vers un système où la collaboration humain-IA est étudiée explicitement.

Comment optimiser l'interaction pour stimuler la pensée critique ? Quelle place les LLM doivent-ils occuper dans les parcours de soins cliniques ? Et surtout, le binôme humain-IA est-il plus performant que l'humain seul, même avec une IA imparfaite ? Les LLM constituent une nouvelle catégorie de technologies d'aide à la décision clinique.

Nous ne pouvons les évaluer avec les outils et cadres d'analyse du passé. Nous devons accepter leur nature complexe, proche de celle de l'humain, et apprendre à raisonner avec elles. Ce n'est qu'alors que nous pourrons utiliser cette technologie pour mieux prendre soin des patients.

Références

Harada Y., Suzuki T., Harada T., Sakamoto T., Ishizuka K., Miyagami T., et al. - Performance evaluation of ChatGPT in detecting diagnostic errors and their contributing factors: an analysis of 545 case reports of diagnostic errors - BMJ Open Quality. 2024;13:e002654.

Rodman A., Zwaan L. - We need a new paradigm to think about generative AI - BMJ Quality & Safety  Published Online First: 07 May 2026. doi: 10.1136/bmjqs-2025-019828.

Takita H., Kabata D., Walston S.L. et al. - A systematic review and meta-analysis of diagnostic performance comparison between generative AI and physicians - npj Digit. Med. 8, 175 (2025). 

Wang J., & Redelmeier D. A. - Artificial intelligence chain-of-thought reasoning in nuanced medical scenarios: mitigation of cognitive biases through model intransigence - BMJ Quality & Safety (2025).